📘 TFLite 边缘部署
30 章 · 从入门到实战
🧩
友好 · 全流程
01
TFLite 初探:什么是 TensorFlow Lite,为什么需要它,与传统 TensorFlow 的区别。
↗
02
环境搭建:安装 TensorFlow、配置 Android/iOS 开发环境、安装 TFLite 解释器。
↗
03
模型转换基础:使用 TFLiteConverter 将 SavedModel 转换为 .tflite 格式。
↗
04
量化入门:什么是量化,为什么量化对边缘设备如此重要。
↗
05
训练后量化:动态范围量化、全整数量化、Float16 量化的原理与实操。
↗
06
量化感知训练:在训练过程中模拟量化效果,提升量化后模型精度。
↗
07
模型优化工具:使用 TensorFlow Model Optimization Toolkit 进行剪枝和聚类。
↗
08
模型格式详解:解析 .tflite 文件结构,理解 FlatBuffers 序列化。
↗
09
TFLite 解释器:在 Python 中加载并运行 .tflite 模型,理解 Session 机制。
↗
10
Android 部署:在 Android 应用中使用 TFLite Java API 加载模型进行推理。
↗
11
iOS 部署:在 iOS 应用中使用 TFLite Swift/Objective-C API 进行推理。
↗
12
边缘设备选型:树莓派、Jetson Nano、Coral 等设备的性能对比与选择。
↗
13
树莓派部署:在树莓派上安装 TFLite Runtime,运行视觉模型。
↗
14
Coral Edge TPU:使用 Edge TPU 加速模型推理,编译模型到 TPU。
↗
15
GPU 加速:在 Android/iOS 上使用 GPU Delegate 加速推理。
↗
16
NNAPI 与 CoreML:利用 Android NNAPI 和 iOS CoreML 进行硬件加速。
↗
17
XNNPACK 优化:在 CPU 上使用 XNNPACK Delegate 提升推理速度。
↗
18
模型大小与速度权衡:如何平衡模型精度、大小和推理延迟。
↗
19
图像分类实战:部署 MobileNetV2 到手机端,实现实时分类。
↗
20
目标检测实战:部署 SSD MobileNet 到边缘设备,实现实时检测。
↗
21
语音识别实战:部署 RNN/Transformer 模型到树莓派,实现关键词唤醒。
↗
22
姿态估计实战:部署 PoseNet 到 Android,实现人体关键点检测。
↗
23
自定义模型部署:将自己的 Keras 模型转换为 TFLite 并部署。
↗
24
模型签名与元数据:为 TFLite 模型添加签名和元数据,方便调用。
↗
25
TFLite Task Library:使用预封装的 Task API 快速集成视觉和文本任务。
↗
26
性能分析工具:使用 TFLite Benchmark Tool 分析模型推理性能。
↗
27
内存与功耗优化:在资源受限设备上优化内存占用和电池消耗。
↗
28
错误排查指南:常见 TFLite 部署错误及解决方案(Shape 不匹配、Delegate 失败等)。
↗
29
安全与隐私:在边缘设备上进行本地推理,保护用户数据隐私。
↗
30
综合项目:从训练到部署,完整构建一个边缘 AI 应用(智能门锁人脸识别)。
↗